COMP5511の第5講は、大きな転換点となります。古典的なコンピューティングの決定論的な論理と、初期の分類モデルにおける教師あり学習の確実性から、生成AI時代の確率論的な中心へと移行します。 生成AIの確率論的な中心。このセッションでは、最新のAIモデルが「事実」ではなく、むしろ 確率分布を出力する理由を探り、LLMが詩を書いたり、拡散モデルがノイズから絵を描いたりすることを可能にするメカニズムを解き明かします。

1. パラダイムシフト：論理から確率へ

• IF-THENを超えて：厳格なルールから流動的な統計的確率への移行。
• 確実性の終焉：生成AIの結果が、その設計上 非決定的 である理由を理解する。
• 確率をツールとして：生成AI時代は、 不確実性を特徴として 、修正すべきバグではなく創造性のために扱う。

2. 創造の確率的エンジン

生成AIは、高次元の確率空間からのサンプリングに依存しています。テキストまたは画像を生成する場合でも、モデルは新規性を生み出すために不確実性をナビゲートします。

• 大規模言語モデル（LLM）：次のトークンを単一の選択肢としてではなく、 可能性の分布として予測します。
• 拡散モデル：カオスな ガウスノイズとして予測します。
• サンプリングプロセス：反復的で「ロボット的」な出力を防ぐために、どのようにランダム性が活用されるか。

3. 予測不能な世界のエージェント

自律エージェントは、「オープンワールド」をナビゲートしなければなりません。そこでは、すべての行動が未知のリスクと報酬を伴います。